2025/06/18

[books] 原始宗教

 

書名:原始宗教

作者:董芳苑

上個禮拜看羅胖的《文明之旅》講到包青天,突然想起這本書。

這本書已經絕版了,高中的時候在唐山書局買過,但後來出國唸書的時候已經捐給圖書館,現在圖書館還找得到。

高中的時候對於「文化人類學」其實是沒什麼概念的,只是覺得作者比較一些原始宗教的田野調查,然後提取當中相似的元素,試圖解釋人類「宗教」的根源,看起來很酷。

之所以會從「包公」跳躍到「宗教」,主要是羅胖說道我們今天認識的包拯,跟史實大相逕庭,其實是後世民間種種不滿與希冀的情緒投射之後,形成的一種類似「信仰」的形象。這在歷史學上屬於「古史辨派」,以顧頡剛錢玄同胡適等為代表,是一個以「疑古辨偽」為論題的史學、經學研究流派。

這種心理需求,讓我想到了原始宗教這本書裡的描述,當然閱讀的年月已久,說不定也是我這麼多年的際遇對記憶造成的扭曲。也順便推一推這集文明之旅:



2025/06/16

都更行不行

 

最近舊居附近有建商來提議都更改建,除了例行的拜訪、問候、詢問意願之外,也租借附近圖書館的場地辦了一場說明會。我自己則是很明快的就跟建商簽了授權申辦的合約,是第一批簽約的三戶之一。

由於跟家人已經搬到新居兩年,舊居目前是讓在附近讀書的親戚居住,而都更即使順利推動,也是在親戚畢業之後才會動工,所以在空間的使用上,我自己沒有什麼特別的顧慮。

大台北地區「新舊交錯」的街景,儼然已經成了一種地區特色,而每個人喜好不同,我倒是不特別反感。但是老舊公寓的安全性(防火防震)以及便利性(供水與電力的規劃),透過改建可以很大程度的獲得提昇,這才是我傾向於支持改建的主要緣由。

當然,建商提出的合建條件在我看來相當優渥,除了舊居用地原本為商業用地,目前建物本來就沒有到達法定的容積率之外,建商在附近已經有兩個建案在進行當中,也讓建商對利益分配的掌握相當精準。

話雖如此,但我對於這件事情成功與否,信心並不是很高。主要是過去10年,親友之間聽聞類似的合建都更機會至少有七、八件,但沒有一件是成功的。失敗的主要原因,通常都不是單一地主跟建商之間的問題,而是地主之間相互比較,導致建商沒辦法提出足以讓所有地主都滿意的條件。其中的故事很多,鄰里之間的恩怨情愁,旁人聽起來極其荒謬的也所在多有,只能說數千年來人性沒什麼改變。

比較有趣的,是首批簽約的三戶,另外兩戶屋主是同一位大姐,他之所以馬上同意,也是因為他目前居住的房子剛好錯過一次都更。

現在雖然已經開始推動,但目前的合約只是授權給建商申辦,建商需要在兩年內取得80%地主的授權書,不然合約自動失效。依照目前的都更條例跟實際案例,雖然「100%地主同意」在規範上並不是絕對必要,但除非有公共危險或其他特殊情況,沒達到100%同意之前,建商是很難取得執照的。

所以,就看看吧。一位朋友說:「搞不好一顆飛彈剛好打到,就直接拆掉重建了。」雖然我是覺得他住機場附近被打到的機率比較高,但世界上的事情,也沒什麼是不可能的。

2025/06/09

[books] The Silicon Shrink:對在心理健康領域使用 AI 的反思


書名:The Silicon Shrink: How Artificial Intelligence Made the World an Asylum (2025-02-04)

作者:Daniel Oberhaus

簡介:

《矽基心理醫師:人工智能如何讓世界變成收容所》 是科學作家 Daniel Oberhaus 的著作,由麻省理工學院出版社於2025年2月4日出版。(Silicon 可以同時指涉「矽谷」跟「積體電路以矽為基礎」,而後者常常用來對比人類與AI,相對於地球上大多生物有機體是「碳基生命」,AI 則是建立在電晶體上的「矽基生命」。)

作者在書中深入的介紹了AI在精神健康領域的應用,並提出警告。Daniel Oberhaus 的核心論點是:由於我們當前對精神疾病的理解極其有限,所以不應該在心理健康跟精神醫療上大規模的依賴AI。

這本書揭示了在心理健康領域使用 AI 的相關風險,包括缺乏實證數據、倫理挑戰、潛在的資料隱私問題,與「精神健康監控經濟」(psychiatric surveillance economy,透過數位足跡來進行監測,甚至操縱情緒跟行為),以及將世界轉變為「數字收容所」的擔憂(利用數位工具存放病患,而非進行有效的治療)。

儘管AI諮詢工具如 WoeBot 和 ChatGPT 因可及性、低成本和去污名化等優勢,已經漸漸普及,但作者強調這些工具的局限性,而且缺乏監管與獨立驗證


雖然書已經出了快半年,但我是上禮拜在 Intelligent Machines 的 podcast 裡聽到作者的專訪,才注意到這本書。主持人提出的很多問題,都是之前募資的時候寫在 Business Plan 裡的「正面說法」,而作者則一一提出反駁。無論同不同意作者的說法,這的確都是該有的反思。





2025/06/02

Alpha Evolve 大語言模型時代的演化算法


今年五月比較大的 AI 應用突破,大概要算是 Google 發表的 Alpha EvolveNature 上的報導中文版)以「令人驚嘆」(spectacular)為題,列舉了利用這個系統在幾個數學問題上帶來的突破,以及實際應用在現實中的例子:像是「加速計算」這件事情,就可以資料中心帶來極為可觀的成本節約。

上一篇有提到,當年學機器學習在找研究題目的時候,指導教授循循善誘,勸我不要跳類神經網路這個坑,後來我選了另一個 generative model 的流派,演化算法evolutionary computation, EC)。細節就不贅述了,反正以前寫過(paper, post-1, post-2),總之 Alpha Evolve 推出之後,這些老文章突然又有了新的點擊。

簡單的說,Alpha Evolve 是結合大語言模型的新型態 EC,把以前要花很多心思去設計的元件,像是問題表徵的設計、評估函數的設計、解決方案集合與迭代機制的設計等等,透過 LLM 得到了大幅度的簡化,所以一般的科學家可以相對輕鬆的上手。

演化算法的基本概念並不複雜,就是把問題的解決方案設計成特定的結構,透過演化的機制(物競天擇,分數高者生存),一代一代的迭代,來尋找更「好」的解決方案。但演化算法運作的細節也有點複雜,像是具體的定義「好」,跟解決方案的結構設計,都會影響到整個尋找的效率。現在透過大語言模型來簡化這些步驟,的確是個不錯的方法。

演化算法本身就是一個「生成式」的方法,可以生出資料裡沒有出現過的樣本,在「資源有限」的情境下對「找到更好的答案」非常有效律;但它也有明顯的缺點:這個算法不保證迭代會趨於收斂,所以傳統演算法的學者常常「不吃這一套」。

就先這樣吧,其他的,等有了成果再說吧。

2025/05/25

關於類神經網路的一些回憶


這部影片的資訊來源,應該是最近的新書「AI霸主」裡面關於 Ilya 的部份,而影片裡介紹的部分段落,恰好跟我自己的求學經歷有些重疊,想起了一些往事。

大四的時候修了黃榮村老師的選修課,導讀當時(20世紀末)的意識研究。那個學期讀了一堆書跟論文,影印紙疊起來跟人一樣高,我還為了其中一篇189x年的論文,跑去圖書館的儲藏室,影印一篇感覺翻用力一點就會碎掉的期刊論文。讀過的人名很多,像是 Daniel DennettFrancis CrickRamachandranGerald Edelman, Antonio Damasio, David Chalmers, Ned Block, Christof Koch, René Descartes, Roger PenroseStuart Hameroff,還有更多不記得了。

期末最後有同學提問:「關於意識成因的這麼多種說法,老師覺得哪一種比較有可能是對的?」老師思考了一會兒,說:「雖然我個人並不願意承認,但以目前的發展來說,connectism 比較有可能是對的。」(簡單說就是「意識來自神經網路運作的結果」,當時老師戲稱這是「沒有心的心理學」。)

後來服完兵役出國,改念機器學習,當時我跟指導教授說想做類神經網路的研究,老師笑了笑,跟我講述了影片中那段「類神經網路現在正遭遇低谷」的情況,「他們得自己辦一本期刊才能夠發表論文」云云,一模一樣的情景猶如昨日重現。

言猶在耳,20年後的現在,類神經網路改變了整個世界,還一口氣拿了兩座諾貝爾獎,當初誰又預料得到呢?

影裡也提到 Nvidia 的 CUDA,我過往也研究了一段時間的 GPGPU,只是當時選擇了 CUDA 的競爭陣營 OpenCL (我一向都是選 open source 的),然後,就沒有然後了。

如今回頭看,感觸良多。不要說什麼高瞻遠矚、洞燭機先,其實人的選擇都高明不到哪裡去,際遇使然而已,還是活在當下比較實在。

2025/05/22

[摘譯] 如何教孩子數學?科學家發現更好的方法


原文Scientists discover a better way for kids to learn math

研究論文What the Science of Learning Teaches Us About Arithmetic Fluency

摘譯

科學家基於行為實驗、縱向研究、神經影像數據和課堂設計研究的新框架發現,孩子學習數學的更好方法並非單純強調死記硬背或純粹的概念理解,而是一種兩者兼顧的「三階段循環」模式:數學能力始於理解,透過反覆練習提升,並在反思和討論中深化。

研究作者強調,教育者不必在「重複練習」和「課堂討論」之間做出選擇。將短時間、重複的練習,與推理和討論活動結合,能幫助學生將零碎的事實編織成完整的知識脈絡。

神經科學的研究指出,隨著學習的時間推展,兒童大腦的活動模式會從較為費力的推理(系統二),逐漸轉向省力的快速回憶(系統一)。因此,教學方式應在兩種活動之間不斷循環。關鍵在於,要從明確的思考策略教學開始,建立正確性之後,用反覆的計時練習來增強最策略的記憶。而計時練習後,應再次進行小組討論,讓學生解釋題的方法,並將之與更廣泛的概念聯繫起來。

短評:

一般來說,這種「思考」跟「記憶」各打50大板的說法不是很討喜,但這篇研究提出了一個交替使用的策略,並且為這個策略提出合理的解釋,也算是有參考價值。

2025/05/02

[books] 雲端亡魂

 

書名:雲端亡魂

原文書名:The Afterlife of Data: What Happens to Your Information When You Die and Why You Should Care

作者:Carl Öhman


這是剛出爐的新書,主題也很新穎:我們死了以後,遺留下來的數位足跡該怎麼辦

這是一本實打實的倫理學探討,從幾個基本觀點的並陳,到基於不同觀點所能衍伸出作法的探討,觀點涵蓋是否夠全面,目前或許還言之過早(畢竟題目太新了),但絕對反映出了作者身為倫理學領域研究新秀的功底。

曹馭博的中文導讀從自身的相關經驗出發,以相關影視作品為引,切入這本書的核心議題:我們現在就應該開始思考,如何成為一名好祖先。

這本書的核心論點可以歸納為以下三項:

  1. 數位遺骸的特殊倫理地位:逝者留下的數據並非普通資訊,而是構成個體身份延伸的「資訊屍體」,具有持久性,並應享有基於人類尊嚴的倫理對待。
  2. 迫切的治理危機:目前在處理數位遺骸方面存在嚴重的法律空白、所有權不明和倫理規範缺失,導致權力過度集中於缺乏公共責任感的科技平台,並催生了潛藏風險的數位來世產業。
  3. 集體遺產與政治權力:數位遺骸構成了我們這個時代的集體數位遺產,對其的控制權意味著對歷史敘事和未來社會的影響力,這使其成為一個具有重大政治意涵的議題,需要超越純粹商業邏輯的集體管理框架。

作者當然是認為這個議題影響廣泛,需要每個人更主動的參預。無論你同不同意,這本書的論證詳細,邏輯清晰,值得一讀。


2025/04/25

惠子相樑



聽施展老師的中國史綱時間篇,聽到諸子百家那一段,提到莊子秋水篇的「惠子相樑」這個故事。

原文:

惠子相樑,莊子往見之。或謂惠子曰:“莊子來,欲代子相。”於是惠子恐,搜於國中三日三夜。莊子往見之,曰:“南方有鳥,其名爲鵷鶵,子知之乎?夫鵷鶵發於南海,而飛於北海;非梧桐不止,非練實不食,非醴泉不飲。於是鴟得腐鼠,鵷鶵過之,仰而視之曰:‘嚇!’今子欲以子之樑國而嚇我邪?”

白話翻譯:

惠子在魏國當宰相,莊子去看望他。有人告訴惠子說:“莊子到魏國來,想(或就要)取代你做宰相。”於是惠子非常害怕,在國都搜捕三天三夜。莊子前去見他,說:“南方有一種鳥,它的名字叫鵷鶵,你知道它嗎?鵷鶵從南海起飛,飛到北海去,不是梧桐樹不棲息,不是竹子所結的子不吃,不是甜美的泉水不喝。在這時,一隻貓頭鷹拾到一隻腐臭的老鼠,鵷鶵從它面前飛過,仰頭看着它,發出‘嚇’的怒斥聲。難道現在你想用你的樑國(相位)來威嚇我嗎?”

小時後讀過,當時只覺得莊子也太自大了吧;現在讀來,又有不同的感觸。

2025/04/24

下半輩子,期待多為自己活一點

 

去年50歲生日前後,在忙著趕工要做一個產品的 live demo,連續忙了好幾天,連生日那天家人問我要不要買個蛋糕,我都說:「不用了,沒時間」。

後來東西是做出來了,但後續募資進行的沒有預期中順利。考慮到大環境的劇烈變化,其實很多突發狀況也是非戰之罪,反正已經在社會上打滾這麼久,只能說「盡人事、聽天命」而已。

一時的成敗其實不足為慮,倒是忙到一個段落之後,恰好有機會靜下心來想想接下來的規劃。

這次忙碌的產品,是源於一年多前一位大學同學說要創業,我思考後答應幫他起個頭,建立一些初始的技術架構,跟招聘技術方面的人才。雖然身為創始股東跟共同創辦人,但我其實還有自己公司的工作要忙,另外手上也有幾篇學術論文跟研究在進行,其實是沒有辦法全職投入這個工作的。這個 live demo,也算是一個階段的結束,我剛好也可以把工作轉交給新加入的夥伴,然後回頭去忙自己的事情。


年輕的時候,讀了黃明堅的「為自己活」這本書,說的大抵是「人應該擺脫社會賦予的條條框框,追求自己的目標」,這在今天看起來沒什麼了不起,當年卻算是相當離經叛道的說法。現在連美國總統都這麼「做自己」了,誰能不多為自己活一點呢?好吧,離題了。

話說回來,「為自己活」說來容易,但自己的個性其實有點同情心過剩,很多明明不是我該做的事情,看不下去人人互相推諉,也就攬過來順手做了。雖然常常因此覺得人累心也累,但也因此學會了許多奇怪的技能(說句題外話,我一直覺得「能者多勞」是本末倒置的敘述,通常反而是因為多勞才成為能者)。

年輕的時候體力好,身體再累睡一覺也就補回來了,心累至少還可以安慰自己「有學到東西,對將來的發展還有一點幫助」。年過五十,好像心境有點不同了。一方面是體力大不如前,一方面是人生歷練,這些年深深體會到「升米恩,斗米仇」是人生常態,再怎麼付出,先不說求不求回報,光是體力下降就累死自己了,更不用說人家不會感謝你之前的付出,只會記恨你不繼續給予、或是給得少了。


年過半百,現在的「為自己活」,已經不是什麼挑戰世界、挑戰傳統,只是單純的驚覺時日無多,蹉跎不起,只求能讓自己活得不那麼累而已。總之,整理了一下自己人生中一些想要完成的任務,希望能把時間多一些花在這些事情上面,其他的就只能盡量視而不見,權當是修行了。

畢竟,人生也沒那麼複雜:自己做的選擇,就自己負起責任來。別人可以幫你一時,但誰都沒有義務幫你實現所有的願望,就算再親密的人也一樣。

能夠明確的認識到這一點,「求不得苦」就會少很多。

2025/04/22

百年回顧:社工與老人的模擬對話


設定了兩個人物,然後用 Gemini 2.5 Pro 模擬一段大約30分鐘的對話。內容還不錯,但長度好像沒有30分鐘。

場景: I 女士在桃園長子家的客廳,坐在她習慣的安樂椅上,蓋著薄毯。社工 M 坐在旁邊的小凳子上。窗外天氣晴朗。

人物:

  • M: 25 歲女性社工,親切有禮。
  • I: 100 歲女性,思路清晰,語速較慢但穩定。

(對話開始)

M: (輕柔地) 阿嬤,午安,您今天看起來氣色不錯耶,臉色很紅潤。

I: (緩緩睜開眼,微笑) 妳來啦?坐、坐。還好啦,就老樣子。剛剛念完經,精神有好一點。

M: 是喔,阿嬤您每天都念經嗎?是固定的功課?

I: 嗯,習慣了。年輕的時候沒這個習慣,是妳阿公走了以後,時間多了,心也比較定不下來,才開始念念經,求個心安。算一算,也念了三十年了。

M: 三十年,好長的時間!阿嬤您很有毅力。聽您這樣說,阿公過世對您影響很大齁?那時候您大概七十歲?

I: (眼神飄向遠方,點點頭) 對啊,七十歲。好像昨天的事情。妳阿公…他人很好,就是走得早了點。我們結髮五十年,他很照顧家裡,也很疼我跟孩子們。他走了,家裡好像一下子空了。

M: 五十年的夫妻,感情一定非常深厚。阿嬤您跟阿公是怎麼認識的?聽您兒子說,您們是鄰村的?

I: (笑意浮上嘴角) 嘿啊,阮厝跟他們家是鄰村望族啦。少年時,根本不認識,也不會互相講話。是大人安排的「相親」。我看他人老實、斯文,他也覺得我還可以,就這樣訂下來了。阮那個年代,自由戀愛很少啦,都是聽父母的。

M: 哇,是相親結婚的。那時候您幾歲呢?

I: 我喔…高中畢業沒多久就嫁了,大概十九、二十歲吧。阮那個年代,女孩子讀到高中畢業算很了不起了。我是讀日本人的學校,從小都講日語,學日本的規矩。

M: 您受的是日式教育!那一定很特別。課本都是日文嗎?學校生活是怎麼樣的?會穿和服嗎?

I: (眼睛亮了起來) 是啊,課本、老師講話,全部都嘛是日文。學校很嚴格喔,注重禮節、整潔。上下學要敬禮,作業不能遲交。我們讀書的時候是穿水手服啦,重要場合才會穿和服,像是畢業典禮。我還記得畢業典禮那天,大家都穿得很漂亮,我也穿媽媽幫我準備的振袖和服,很開心。

M: (專注地聽著) 聽起來是很不一樣的經驗。那您結婚後,很快就跟阿公一起去日本了?您才二十歲左右,就要離開家去那麼遠的地方,會不會害怕或捨不得?

I: (嘆了口氣,又笑了笑) 哪會不怕?當然捨不得啊!阮媽媽把我送到基隆港,一直哭。但是,少年人嘛,要去日本「留學」,心裡還是有點興奮。妳阿公要去讀法律,我就跟著去。說是去照顧他,其實也想去看看外面的世界。

M: 阿嬤您真的很勇敢。在日本的生活習慣嗎?聽說您第一個女兒是在日本出生的?

I: 嗯,老大在日本生的。那時候真的很辛苦。日本冬天很冷,我又懷孕,很多東西吃不慣。妳阿公讀書很忙,我自己一個人在小小的公寓裡,語言雖然通,但還是會想家,想台灣的菜。生孩子的時候,身邊也沒有媽媽、婆婆可以幫忙,都是自己摸索。還好鄰居有個好心的日本太太,偶爾會來關心我。

M: (點點頭) 自己一個人在異鄉生孩子,一定很不容易。阿嬤您辛苦了。那位日本太太人真好。

I: 對啊,所以我回來台灣後,看到有困難的人,也會想辦法幫忙一下。在日本待了幾年,妳阿公拿到學位,我們就回來了。

M: 回來台灣後,阿公就開始當代書,您就在家照顧孩子們?您總共生了五個孩子,兩男三女,真的很厲害!家裡一定很熱鬧吧?

I: (笑著) 嘿啊,鬧熱滾滾!一個接一個生,忙都忙不過來。幫老大洗澡,老二在哭;餵老三吃飯,老四又打翻東西。妳阿公工作忙,早出晚歸,家裡大小事幾乎都是我在張羅。雖然累,但是看著孩子們一個個長大、讀書、成家,心裡很安慰。

M: 帶大五個孩子,還要持家,阿嬤您真的是家裡最重要的支柱。孩子們一定都很孝順您。

I: 他們都還不錯啦,很乖,也很關心我。現在我老了,走不動了,他們都會輪流照顧我。像現在住在老大這裡,過半年又要去埔里老二那邊住。

M: 這樣輪流住也很好啊,兩邊的孩子都能陪到您。您平常在家都做些什麼呢?除了念經,聽說您也喜歡看日劇?

I: (眼睛又亮了) 對!我喜歡看日本的時代劇,還有一些家庭劇。看他們講日語,很有親切感,好像回到年輕的時候。有時候一看就看到忘記時間。

M: 哈哈,阿嬤您真可愛。看劇可以放鬆心情,很好啊。我偶爾也會看一些日本電影,覺得他們的畫面都拍得很美。

I: 嗯,日本的東西都比較…(思考) 細膩啦。

M: (語氣放得更柔和) 阿嬤,聽您講了這麼多,覺得您這一生經歷了好多不同的階段,從日治時代到現在,還去過日本生活,養大了這麼多孩子,真的很豐富。

I: (輕輕點頭,望著窗外) 唉,一百年了,很久了…好像一場夢。好的、壞的,都經歷過了。年輕時辛苦,中年忙碌,老了…就等時間到。

M: 阿嬤您會不會覺得遺憾?或是還有什麼想做的事?

I: (緩緩搖頭) 遺憾…好像也還好。該經歷的都經歷了。子孫都好好的,這就好了。想做的事…現在腳沒力,也去不了哪裡。這樣看看電視、念念經,有人陪我講講話,就很好了。只是有時候會想到妳阿公,還有一些以前的朋友,都不在了…會有點寂寞。

M: (溫柔地) 嗯,這很自然。想到過去的人和事,會有點感傷。但聽到您說回顧一生覺得滿足,我也替您感到安心。您創造了一個很溫暖的家,您的孩子和孫子們都很愛您。

I: (微微笑) 這樣就好,這樣就好。人生嘛,平安順遂,就很難得了。

M: 是啊。阿嬤,今天聽您分享了這麼多故事,我真的覺得很榮幸,也學到很多。謝謝您願意跟我說這些。

I: (擺擺手) 沒什麼啦,老人家的話匣子一開就停不了。有人願意聽,我很高興。

M: 我很喜歡聽您說故事。時間差不多了,外面太陽還很大,您等一下要不要再睡一下?

I: 好啊,坐久了也累了。妳要回去了嗎?路上小心喔。

M: 好的,阿嬤您好好休息。下個禮拜同一時間我再來陪您聊天。有什麼需要,隨時請您兒子或媳婦打電話給我喔。

I: 好,知道啦。謝謝妳。

M: 不會。阿嬤再見。

I: 再見。

(M 輕輕起身,替 I 拉好毯子,然後安靜地離開。)

2025/04/14

這麼多年來,「教育」被什麼革了命?


AI 大抵是目前最熱門的技術話題,不斷的在滲透到百工百業的日常,教育亦然。過去每一波的科技發展,都揚言要革教育的命,現在最熱門的當然是 AI,我自己也參與了相關的產品研發。但是,真的做得到嗎?

這部影片是很好的反思,不只是對科技,還有「建構式教學」的執行方式。Muller 強調「反覆練習」、「即時回饋」,和「有效的管理認知資源負擔」對「有效的教育」的重要性,而 AI 應該是用來協助這三個面向,而非快速的給予答案。



2025/03/21

「人人都應該要有一台」的 DGX Spark

這波大語言模型的突破,帶來了很多新的應用的可能性,但許多的應用情境,可能出於隱私的需求,或是安全性的考慮,需要離線使用大模型。當然在資金充裕的情形下,直接拿訓練大模型的硬體來作為執行推論的區域網路伺服器,也是一種選擇,但這麼做的建置和維運成本都相當高。

基於這個「痛點」,目前多了很多新的選擇:例如新版的 Mac mini 就成為很多中小型實驗室建置大模型叢集的熱門選擇。而 AMD 新上市的 Strix Halo,也有很多廠商準備了 128GB 統合記憶體的產品要來攻略這個市場。

這兩天的 GTC 大會上,Jenson Huang 公佈了一項「人人都應該要有一台」的新產品,DGX Spark。個人覺得這完全就是衝著 Mac mini cluster 來的,一樣採用 ARM-based 處理器,更大的 128GB的統合記憶體,連定價區間都接近,但是由於是本家產品,直接支援 CUDA,所以大模型運作起來的效率就遠遠不是同一個等級。當然,由於硬體架構不同,在訓練模型的效率上沒辦法跟 H100/B100 系列相比,但作為微調(fine-tune)的工具還是游刃有餘,而其它廠牌產品受限於 CUDA 的支援,都只能做「推論」(就是執行人家訓練好的模型),要訓練或微調模型卻是沒辦法的。

所以,等上市就來買一台試試看囉。

2025/03/19

大語言模型與心理諮商


「大語言模型與心理諮商」應該算是我過去一年主要在忙的事情,雖然還沒有個正式的結果,但也可以先看看學術界的觀點。

兩篇參考文獻都是 2024 年刊登的,Omar 的那篇是回顧型文章,分析整理了16 篇 paper,所以應該不會太偏頗。

這件事清想當然爾的結論是「機會與風險並存」。機會嘛,我跟夥辦們正在努力的好好把握,而相關的風險也是要事先有所準備。以下摘錄幾句文章裡的金句:



  • Obradovich et al.: 大語言模型在「獲取資訊」、「凝鍊內容」上表現傑出,而且正在攻克需要繁複推理的問題。
  • Obradovich et al.: 一個說話生動流暢的夥伴,不但記得你生活中的每個細節,還隨時用溫暖的語氣給你支持,這可能會引發一種回饋循環:我們可能會更沉迷在人機互動,而代替了人與人的社交。
  • Omar et al.: 這些早期的研究揭示了大語言模型的多種應用,從診斷輔助到教育協助都有。鑑於認供智慧領域進步的速度,未來的研究會聚焦在探索「心理健康照護」當中的傳統角色,將會如何被新科技重新定義。
  • Omar et al.: 人們對大語言模型在臨床場景中的局限性和安全性的擔憂顯而易見……這表明,儘管 ChatGPT 很有前景,但將其整合到臨床精神病學中必須謹慎對待。

個人最擔心的是第二點,那是走向種族滅絕的道路;第四點則是老話一句:小心駛得萬年船。

Referece:

  • Obradovich et al. (2024): "Opportunities and risks of large language models in psychiatry" (Nature - Digital Psychiatry and Neuroscience)
  • Omar et al. (2024): "Applications of large language models in psychiatry: a systematic review" (Frontiers in Psychiatry)

2025/03/05

[摘譯] 未來歷史(A History of the Future)


原文:A History of the Future (part1, part2, part3

作者:L Rudolf L

L Rudolf L 在另一系列三篇的《未來的歷史》(A History of the Future)當中,想像了從 2025 到 2040 這 15 年的發展,摘譯如下:

  • AI能力的進步:在2025年至2026年間,AI在程式碼生成(codegen)方面的能力顯著提升,使得創建應用程式的成本大幅降低。Google DeepMind 在數學模型和推理架構方面也取得了進展。Anthropic 則專注於 AI 安全和可解釋性研究。到2027年,OpenAI 發布了o7,具備更強的自主性和可靠性,能夠獨立完成許多辦公室工作。

  • 經濟和就業市場的轉變:隨著AI程式碼生成能力的提升,軟體變得極為豐富,但價格也因此下降。許多非程式設計師也能夠創建B2B SaaS或從事自由程式設計。然而,由於AI能夠取代大量白領工作,導致就業市場出現結構性變化。到2030年代,辦公室工作轉變為監督AI系統,許多職位實際上成為閒職。

  • 社會文化和政治的影響:文章預測,AI的發展將影響社會文化,例如,人們花費大量時間與AI互動,可能導致人際溝通能力下降。同時,AI也可能被用於操縱政治。在政治方面,美國和中國都將AI視為戰略重點,並加大對AI的投資和研發。

  • 地緣政治格局的變化:文章認為,AI技術的競爭將加劇美國和中國之間的地緣政治競爭。到2030年代,美國和中國將在半導體和AI產業上實現自給自足。其他國家和地區,如歐盟和發展中國家,可能因AI的發展而面臨挑戰。

  • AI風險和安全:文章也關注AI可能帶來的風險,包括AI被用於網路攻擊、生物恐怖主義等。此外,隨著AI自主性的增強,如何確保AI的目標與人類價值觀一致,成為一個重要的研究方向。

  • 機器人技術的崛起:到2030年代,機器人技術將得到廣泛應用,尤其是在製造業領域。美國和中國將大量部署機器人,以提高生產力和增強軍事力量。

  • 人類的未來:在AI和機器人技術的影響下,人類社會將面臨深刻的變革。文章指出,到2040年,世界將變得極為富裕,但大部分資源將被用於地緣政治競爭和精英階層的地位競爭。普通人可能會發現自己越來越無力,只能眼睜睜地看著機器吞噬世界。

基本上,算是對前一篇文章,Capital, AGI, and human ambition,立論的詳細描繪。

話說回來,AGI 還沒來,想這些究竟算是高瞻遠矚,還是杞人憂天呢?

2025/02/27

[摘譯] 資本,AGI,與人類的野心

原文::Capital, AGI, and human ambition 

作者L Rudolf L

摘譯

這篇「資本,AGI,與人類的野心」的作者預測,當 AI 逐漸取代人類作為生產的基礎之後,整個社會將越來越不關心「人類」本身,進而強化固有的社會權力結構。

當大部分的生產工作都由 AI 擔任之後,整個體制的當權者將不再需要將其它人類的福祉當作優先考慮的事項,來鞏固自己的權力。這將導致一個階級固化的社會,個人想透過自己的努力來獲得巨大的成功,將變得非常困難。

這樣的社會,在好的情況下,是所有的人都有著豐富無虞的物質生活,但任何突破現有階級的想望幾乎都沒有機會成功。最糟的情況,則可能是人類的滅絕,或是將資源優先提供給 AI 而非人類。

作者建議,現在就該開始思考,應該如何設計新的機制,保存人類的社會階層流動以及積極性。

想法

這篇大概是近期看到比較接近我心目中的「AI倫理」的討論。過去這幾年, AI 的發展非常迅速,從單一目標的工作到各種複雜的任務,AI 都逐漸能夠勝任,甚至在表現上超過人類。加上機器人的發展,我們似乎離作者描繪的「AI 取代人類作為生產力的基礎」越來越近。

但也有人表示,作者的假設也不見得會成真。例如,當所有人都在物質上不虞匱乏的時候,「個人資產不同」帶來的「不平等」或「階級」可能就不存在了。或者,「少數大企業(資本)控制著所有的 AI 以及生產力」的情況不見得會發生,AGI 的發展過程很可能伴隨著去中心化以及民主化,從而嘉惠到所有人。當然,也有人舉了幾個歷史上新科技出現的例子,來反駁作者過度的擔心。

無論如何,即便我不是性惡論的支持者,但「當你的存在對我毫無意義,我為什麼要關心你的福祉?」這個問題,我是覺得即人類便不見得都會「落井下石」,但「雪中送炭」也不是很常見的情況。所以,我還蠻贊成作者的看法,應該設計一些清推的機制,避免我們走向那個 worst case scenario。


延伸閱讀:




2025/02/24

以聖經來實作「檢索增強生成」(RAG)的範例

這是去年做的 side project,程式碼都放在 GitHub 上中文 readme),有興趣可以自行下載來玩。

預設的語言模型是使用 OpenAI 的 API,所以需要在環境變數裡設定 OPENAI_API_KEY 才有辦法直接執行。

有能力修改的,大可以改幾行 code 替換成其他語言模型。我自己試過 TensorRT-LLMllama-index,如果以「正體中文」來說,目前還是 OpenAI 的模型輸出問題比較少。

雖然說檢索增強生成Retrieval Augmented Generation, RAG)是一種讓大語言模型「減少幻覺」的方法,但其實仍舊難以保證不會出錯,至少系統檢索出來的「相關聖經章節」就常常跟熟讀聖經的慕道者認知不同。

以下是一個例子,是使用者查詢「如何面對小孩不吃飯時,不要生氣?」,當然,例子使用的是比較複雜的版本,反覆呼叫語言模型很多次,生成結果的結構也經過設計。

2025/02/20

[摘譯] 透過 AI 來讓你的創造力升級


原文:Unleashing Higher-Order Marketing Creativity and Impact With AI

作者:Lena Waters (Chief Marketing Officer, Grammarly)

這篇是 Grammarly 的行銷長寫的,算是分享 AI 在行銷領域的實務經驗,但其實對於其它「創作型」的工作也有參考價值。這裡只摘譯了部份重點,有興趣請看全文

1. 確定適合 AI 的任務:專注於確定哪些工作流程可以透過 AI 進行最佳化,例如內容構思、資料分析或目標客層區分,並且將創意流程留給人類。

2. 平衡人工智慧與人性化:人工智慧雖然可以提高效率,但無法複製人類的情感和經驗。讓人類員工在內容創作的流程中隨時保持協作,以確保人工智慧的輸出有真人的質感。

3. 使用相容的工具:選擇 AI 工具的時候,要注意選擇與原本行銷工具的相容性。這將確保更順暢的過渡流程,並與組織的策略目標保持一致。

4. 隨時注意新資訊並保持調適能力:人工智慧的發展非常快速,隨時了解新的變化和新的工具,將有助於行銷部門快速適應,並從最新的產品中得到競爭優勢。

5. 與專家溝通:不要羞於向人工智慧專家或是社群尋求建議和不同的見解。協作和共享知識,可以更有效的使用人工智慧工具。

6. 勇於做出更大的改變:人工智慧「讓許多行銷人員在『害怕錯過』和『害怕搞砸』之間左右為難」。(Greg Verdino)請記得「如果我們沒有犯錯,我們就無法取得夠大的進步」。

2025/02/09

[摘譯] ARK 的 2025 報告

 

方舟投資(ARK Investment Management LLC),是一家總部位於美國紐約資產管理公司,由凱薩琳·伍德於2014年創建,曾管理最對高達500億美元的資產(2021),目前資產管理規模約67億美元。

雖然近兩年 ARK 系列的基金表現不盡如人意,但Cathie 姐每年發表的報告依然值得一讀,主要是涵蓋的主題廣泛,資料收集完整,分析嚴謹,即便不做投資,也可以拿來當作產業趨勢的研究報告參考。

今年的 Big Idea 2025 長達148 頁,我在這裡簡單的挑幾個我自己感興趣的點來聊聊,完整的報告可以自行免費下載,或是看完整版的分析

報告涵蓋的主題很廣,包括:AI 代理人,比特幣,穩定幣,規模化的區塊鏈應用,無人計程車,自動化物流,能源,機器人,可再用火箭,以及多體學(Multiomics),大抵就是目前大比較聚焦的科技領域。

而報告裡提出推動所有產業創新的五大動力則是:

  • 人工智慧(Artificial Intelligence (AI))
  • 機器人(Robotics)
  • 能源儲存(Energy Storage)
  • 公共區塊鏈(Public Blockchains)
  • 多體學定序(Multiomic Sequencing)

以驅動力跟涵蓋主題的數量分佈來看,AI 跟區塊鏈大抵是 ARK 基金投資的重點,而多體學背後的獲利潛力恐怕也不容小覷。

另外,即便報告列出了五大驅動力跟十個領域,但整體來說,ARK報告裡描述驅動 2025 發展的核心,還是 AI 在各個應用領域的滲透。

這樣一來,知道要投資什麼了嗎?

2025/02/04

[Books] 幣漲無疑:有趣的加密貨幣進行式

書名:幣漲無疑:加密貨幣,一場史詩級騙局?

原文:Number goes up

作者:Zeke Faux

入手了快一個月,終於在飛機上讀完了。

這是一本有趣的書。作者自嘲他的鄰居朋友都從跟他一樣不相信,到加入投資,獲利出場,只有他還在一直追著這些人調查。

不過書裡記述的人物和事件,對我來說就不那麼吸引人了,大概是我對這些事件大多已經熟知,加上對一群人怎麼過得紙醉金迷,從想改變世界,一步一步演變成詐騙,沒什麼太大的興趣吧。畢竟生活裡並不缺乏這樣的例子。

其實任何熱門的題材,例如現在的 AI,都有著這樣的風險:懂的人不多,容易打混摸魚,站在風口上的人,很容易不小心跨過了模糊的道德底限,然後用一個個更大的謊來圓前一個謊,直至落入深淵無法回頭。


說到加密貨幣,其實我自己也已經投資多年了。最早接觸是 2010年前後,同事介紹我認識了比特幣,當時研究了一下區塊鏈,也嘗試用筆電跑了幾天的乙太坊。2010年的當時,我感覺區塊鏈技術的確有很多應用上的好處,但並不覺得 BTC 或 ETH 有成為「貨幣」的潛力,因為區塊鏈的「共識」需要消耗相當多網路資源,並不適合當作「貨幣」這種「大規模高頻率」的使用方式,所以很隨便的就把當時的錢包金鑰丟掉了(其實也沒挖多少,所以不心疼)。倒是乙太坊提出的各種建立於區塊鏈的應用方式(智慧型合約、去中心化應用... 等等),我覺得比較有持續發展的意義。

後來在疫情開始之前,我嘗試用幾台平時用來建 AI 模型的 server,在閒置時挖個 ETH。跑了幾天測試,估算了一下經濟效益:以當時台灣的電費來說,大概花台幣 250 的電,可以挖到價值台幣 280-300 的乙太幣。雖然說帳面上有著不錯的經濟效益(10%~20%),但這種大規模又無意義的燒電活動,我實在是沒什麼興趣,所以也就放棄「挖礦」這條路了。

基於相同的信念,當乙太坊組織提出「從工作量證明 (PoW) 轉為權益證明 (PoS)」想法的時候,我開始大量買入乙太幣,至於其它的加密貨幣我幾乎都不碰,畢竟正如這本書上說的:騙子太多。

目前除了乙太坊試圖提出多種論述與運作模式,來試圖建立自己存在的價值之外,其它的加密貨幣都只是單純的「信仰」。雖然人類的信仰可以發揮很大的力量,但任何投資終究還是要回歸到「實質價值」之上,即便乙太坊只是「試圖透過建構綿密的應用情境,來合理化自己的存在價值」,但至少這更符合存在主義的觀點:我的存在意義是透過我自己的實踐來定義的,而不是被更高的存在所給予的。當然,這僅僅是個人價值觀的選擇,而不是對個別貨幣價格的看好或看壞。

至於加密貨幣最後會走到什麼地方,我是真的不知道,我只知道這種沒事就當日漲跌個 10% - 20%的商品,真的很適合演算法交易,但這個話題大概就只能寫到這裡,不然就違約了。

2025/01/25

開一間公司要多少錢?

這篇是蠻久以前就開始寫的,展開來想得太多,有點收不了尾。現在來快速收斂一下,也算是告別一段過去。


2025/01/17

持咒修行與工作記憶

 

高中時有位特別的公民老師,上課時不講課(反正聯考也不考公民),而是要同學在上課前,把任何想問的問題寫在紙條、集中放在講桌上,他上課的時候就隨便抽問題出來回答。

我已經不記得老師的姓名,對於他課堂上講述的內容也已經印象模糊,只記得他說自己是當時知名的密宗黑教大師林雲的親傳弟子,偶而也會講一些密宗的教義、修行跟持咒的方法。

約莫是受了他的影響吧,當時我好奇去圖書館找了一些跟密宗修行有關的書籍,裡面有一段關於六字大明咒的持咒方式,讓我覺得開了眼界。

我現在已經找不到那本書了,所以只能憑記憶描述書中的說法。書裡描述的持咒方式分為好幾個階段,每個階段的難度越來越高,總之我記得我沒有試到最後一個階段過。

最簡單的階段就是一般的念誦,這個應該大家都做得到。

進一步,就是要在腦海中想像如附圖中的六個彩色文字,每念誦一個字,就要想像對應的顏色,這個階段也還算不上困難。

接下來,是改變持咒的循環:從原本簡單的「嗡、嘛、呢、唄、咩、吽」反覆念誦,改為:「嗡、嘛、呢、唄、咩、吽」唸完後接續「嘛、呢、唄、咩、吽」,然後是「呢、唄、咩、吽嗡、嘛」,「唄、咩、吽嗡、嘛、」,「咩、吽嗡、嘛、呢、唄」,「嗡、嘛、呢、唄、咩」,最後再回到「嗡、嘛、呢、唄、咩、吽」。

換句話說,就是你開啟一個迴圈,每次念誦都從上一次的第二個字開始,直到循環回原本的位置。到了這裡,就開始有點複雜了,我當時還做了六個顏色的小卡片排順序,反覆練習了一陣子,才有辦法閉著眼睛做到這一點。

最後一個階段,是念誦的字往後跳著循環,但搭配的顏色往前跳著循環,直到回到最開始的搭配。這在程式語法裡相對簡單,就是你指定「聲音」跟「顏色」兩個向量,然後使用一個迴圈從 i=0 開始做循環,聲音從 i 排到 i-1,顏色則從 i-1 反向排到 i,直到「嗡」跟「白色」的組合再度出現,算是到一個段落。但如果是嘗試在腦海中進行這個操作,難度就變得很高:你必須記得12個不同的符號,以兩組不同的順序循環往復。到了這一步,我就只能放棄了,我必須承認自己資質駑鈍,沒有慧根,我沒辦法在腦海裡同步操作一個往前的迴圈跟一個往後的迴圈。

比較有趣的是,大學時修認知心理學,學到「工作記憶」(working memory)的時候,我又想起了這套複雜的持咒方法。姑且不論這套持咒方式的宗教價值或功德幾何,但這每個階段提高複雜度的心智練習,確確實實的是在鍛鍊一個人的認知能力:我們在有限的工作記憶空間裡(理論上說是5-9個單位),同步操作語音跟影像,甚至到最後一個階段還要去主動控制這兩個操作朝相反的方向進行,這恰恰符合 Baddeley's model of working memory 所敘述的工作記憶架構。

所以,如果這些宗教修行的法門,多多少少跟鍛鍊認知能力有關,那麼或許也可以算是一種邁向超能力的途徑吧。


後記:

洗冷水加上日常鍛鍊能增強身體機能,練習複雜的誦經持咒方法可以鍛鍊心智,這即使是以科學的角度來看也很合乎常理。在教育不普及的古代,或許這麼做就可以在體力跟智力上超過大部份的人,這也不無可能。

雖然說這些持咒或修行的法門看似有科學基礎,但我說實話沒做過任何實驗來驗證,充其量也只能說「也許有可能」而已;更不用說 Baddeley's model of working memory 是在1974年提出的,而我看那些雜書是1990年代的事情,基於我對密宗佛教極為淺薄的認識,也難說這些修行法門的記載不是在看過這些理論之後才撰寫的。

另一方面,隨著工業化與科技的進步,現在已經有很多唾手可得的工具可以輔助人類更好的使用有限的工作記憶。最簡單的就是「紙筆」:把腦海裡放不下的內容寫在紙上,然後在思考的過程中反覆參照推演,其實就可以用極低的成本來達到「擁有很大的工作記憶」的效果。更不用說智慧型手機普及、AI 技術萌芽的今日,一個普通人隨手可以獲取跟表現出的知識總量,恐怕比200年前的學者全部加起來還要多。

所以對我自己來說,研究這些東西真的沒有什麼宗教的目的,更多是為了瞭解人類本身:我們是什麼?能做到些什麼?如何成長與超越?極限又在哪裡?

這是個很難有終點的追尋。

2025/01/10

[摘譯] 2024年的十大科技突破


原文10 Breakthrough Technologies 2024

出處MIT Tech Review

摘譯

這裡就簡單的摘譯一下,有興趣的請到來源自行閱讀,或是等有取得授權的人來讀給你聽。

1. 百工百業用 AI (AI for Everything):AI 已經走入我們的生活中,成千上萬的人使用 AI 來生成文字、影像、和影片,改變了我們的生活,也重塑了整個科技產業。

2. 超高效率的太陽能電池(Super-efficient solar cells):作為減碳的主要方案,太陽能發電已經大規模的在全球各地進行部屬,而在現今的太陽能面板上加一層特殊結晶體,可以大幅提高轉換效率。

3. Apple Vision Pro(這個如果翻譯成中文好像反而僭越了 XD):蘋果推出的混合實境(mixed reality, MR)頭盔,提供了此類產品的最高顯示規格。至於殺手級應用,雖然目前還言之過早,但全球價值最高的企業做出了它的豪賭。

4. 減肥藥(Weight-loss drugs):吃藥就可以減肥,還可以預防糖尿病、心臟病跟中風,誰不愛呢?(原文沒這句,我自己說的)有興趣可以看看處方藥 Mounjaro 和 Wegovy

5. 強化的地熱系統(Enhanced geothermal systems):新的鑽探技術讓我們得以重新評估這個潔淨能源的可行性

6. 芯粒(Chiplets):摩爾定律逐漸遭遇瓶頸,微小封裝、異質整合的「芯粒」成為晶片設計的新主流

7. 基因編輯療法(The first gene-editing treatment):CRISPR 終於取得英國和美國的許可

8. 艾級電腦(Exascale computers):現在的超級電腦,計算速度是以「艾」(exa-, 10的18次方)為單位

9. 熱幫浦(Heat pumps):溫度調節用的電器可協助減排與固碳

10. 推特殺手(Twitter killer):社群媒體由「大眾廣場」走向「包廂」


2025/01/06

數學是一種思維方式

「人生也許會背叛你,兄弟會欺瞞你,只有數學不會:數學不會就是不會。」

我有很多的朋友都覺得自己數學不好。

大部分同齡人在成長的過程中,過了某個階段之後(每個人不同),數學都只能用背的,但我依然覺得數學其實是一種思維方式,只是我們「考試導向」的教育方式不在乎這件事,當然也就沒辦法讓大家體認到這一點。

會想到這些,是因為家裡有個小學六年級的小朋友,最近在數學上遇到了一道常見的門檻:應用題。會這麼說,是因為我自己40年前也遇到過。其實應用題的主要目標是要練習「文字敘述」跟「數學符號」之間的轉換,轉換完之後,依然是過去五年所學的各種計算可以應付的。

但是,小朋友的課本裡已經開始教導各種公式:雞兔同籠題型的公式、線段圍成形狀題型的公式... 等等。這些公式的確可以幫助小朋友在不必理解「代數」的情況下快速的算出答案,但我還蠻好奇這會不會就是「數學用背的」的開始。畢竟,現在大家高捧的「第一性原理」(first principle),其實跟「背公式」是完全背道而馳的理念。

話說回來,數學好不好其實也沒什麼大不了,能不能把數學當成一種思考方式,更不會影響後續的升學考試。所以,這篇就當作是一位父親的喃喃自語吧。

2025/01/02

新世紀運動與寶瓶年代

 


上個世紀末(1990s'),我還是個文青的時候,接觸到了一群熱衷於「新世紀運動」(New Age Movement)的朋友。這群比我年長一些的藝文界朋友,宗教信仰各異,但大多熱情和善,熱衷靈修。在他們的介紹下,我認識了克里希那穆提Jiddu Krishnamurti)的一系列作品,以及「寶瓶年代」(Age of Aquarius)的觀念。

當時最受討論的,是 Marilyn Ferguson 的「寶瓶同謀」這本書。這本書的主軸,簡單的說就是人類正從占星學的雙魚座時代進入寶瓶座時代,而人類的心智在寶瓶時代將得到真正的解放。

這樣的訴求,搭配當時的時空背景,的確是足以形成一股風潮:蘇聯解體,冷戰結束,中國開始改革開放,歐盟成立,全球化方興未艾,21世紀即將來臨;這一切的一切,似乎都在暗喻著人類即將迎接光明璀璨的未來。

一晃30多年過去,這種樂觀的期待,在21世紀的前10年似乎還蠻得到映證的;然而劇情急轉直下,過去的10年,世界的發展趨勢似乎整個反了過來。在張忠謀宣告全球化已死的現在,我們很難再像30年前那麼樂觀。

那麼,傳說中的寶瓶年代,是不是還會來呢?

撇開1970年代興起的那一波新時代運動的說法,即便是占星學本身,對於「星座年代」的劃分也是存在很多分歧的。眼看著2000年進入寶瓶年代的說法不太靠得住了,我們還可以期待西元2638年(Elsa M. Glover)、西元2654年(Max Heindel)、或者西元2680年(Shepherd Simpson)。總之,以天文學的推算,大抵是落在2600年之後。

衷心的希望到時候人類還存在著。